在说道这个问题之前需要说明的是，古印度与如今的印度是截然不同两个概念。古印度是一个由很多个零零碎碎小国家所组成的一种形式，这里面包括了非常多的国家，是亚难次大陆的总和，是喜马拉雅山脉以南的一大片半岛形式的陆地，是亚洲大陆的南延部分。
这些林林总总的小国虽然有过稍纵即逝的短暂统一，但一直都是借助从北印度而来的外来力量，从来都不是依靠自身，其势力范围从未超越喜马拉雅山脉到达山脉以北地区。也就是说，在地理上，喜马拉雅山脉以南的亚洲大陆的南延部分才被称为印度的。
今天，某些学者声称：如果说古代中国与哪个国家联系最紧密，那只有印度了。这实际上把古代印度的地理概念与现代印度的国家概念混淆，是错误的说法。历史上，亚南次大陆的众多小国们，势力范围从未达到现代印度的国家概念的北方地区。
古代印度文明最先出现在印度河流域，印度河流域文明发生晚于尼罗河流域文明(前4000年)、两河流域文明(前4000年)，距今大概是2500年左右，这个文明随着雅利安人的入侵，向恒河流域转移，和恒河文明一起孕育了古代印度的文明。所以，学者们以印度河文明命名早期古印度文明，而印度河是今巴基斯坦的主要河流。
恒河，中文又译为殑伽河、强伽河、冈底斯河，为南亚大河，有两个主干，发源于喜马拉雅山南麓和德干高原，流经印度北阿坎德邦、北方邦、比哈尔邦、恰尔肯德邦、西孟加拉邦后，进入孟加拉国，改称帕德玛河，汇合布拉马普特拉河在孟加拉国境内的下游贾木纳河，最后注入孟加拉湾，其入海河段称为梅克纳河。恒河流域是印度文明的发源地之一，它不仅是今天印度教的圣河，也是昔日佛教兴起的地方，至今还有大量佛教圣地遗存。
不容质疑的是，不管是印度河、恒河，还是印度河文明、恒河文明，都在印度的北方，而不在南方。这就是说，印度文明实际在印度之北，而非印度之南，古代中国人与印度发生联系最紧密的是印度之北，不是北印度之南。在古代中国人的心里甚至觉得，恒河之南的印度是没有什么用处的。
让我们首先从张骞说起。张骞出使西域时，在今阿富汗(大夏国)市场上发现中国四川(蜀郡)生产的蜀布和邛竹杖(利用罗汉竹制作而成，是四川有名的工艺品)，就问当地人这些东西从哪里来，得到的回答是来自身毒(那时候，还没有印度这个名字)。张骞回来后，将此事向汉武帝作了报告。这个细节在《史记·大宛列传》和《汉书·张骞传》里都有记载，《汉书》的记载更详细一些，原文是：
骞曰：“臣在大夏时，见邛竹杖、蜀布，问安得此，大夏国人日：‘吾贾人往市之身毒国。身毒国在大夏东南可数千里。其俗土著，与大夏同，而卑湿暑热，其民乘象以战。其国临大水焉。’以骞度之，大夏去汉万二千里，居西南。今身毒又居大夏东南数千里，有蜀物，此其去蜀不远矣。今使大夏，从羌中，险，羌人恶之;少北，则为匈奴所得;从蜀，宜径，又无寇。”
译文是：张骞说：“我在大夏时，见到邛崃山出产的竹杖和蜀地出产的布。我问他们是从哪里得到这些东西的，大夏人说：‘我们的商人去身毒国买来的。身毒国在大夏东南大约几千里的地方。他们的习俗是定土而居，和大夏一样;但地势低湿暑热，他们的百姓骑着大象作战。他们的国土靠近恒河呢。’以我推测的地理方位看，大夏离汉朝一万二千里，在西南边。现在身毒又在大夏东南几千里，有蜀地的东西，这就表明身毒大概离蜀地不远了。现在出使大夏，要经过羌人居住的地方，路不好走，羌人讨厌我们;稍微往北，就会被匈奴抓获;从蜀地去，该会是直路，又没有干扰。”
汉武帝听后，非常高兴，认为张骞的话很对。于是有了张骞连通西南，想要找到一条通过中国大西南与身毒国及世界做生意、进行交流的“太平路”。张骞的连通在今云南中部及东部地区的滇国停留了下来，虽没有取得预期的结果，但对汉帝国的西南开发有很大贡献，基本上完成了汉帝国对西南地区的开拓。
后来，这条路在中国的史籍里很少提及，原因是汉帝国已经开通经由今河西走廊、新疆至中亚及其以远的丝绸之路，把世界的东方和西方连接了起来，若再去开通由身毒国去西方世界的道路，已经没有多少意义。也许，这种现实的结果和认知，直接导致了唐太宗对印度的看法。
王玄策，今河南洛阳人，唐朝官员、外交家，数次出使印度。贞观二十一年(647年)，唐朝又派他为正使、蒋师仁为副使一行30人出使天竺(汉代的身毒，印度)，四天竺国王多派使者带着财物来，准备与王玄策一起到唐朝朝贡。为什么会有四天竺之说呢?这一点，中国史记也有记载：
《唐会要》：天竺，即汉之身毒，或云摩伽佗，或云婆罗门。地在葱岭之南，去月氐东南数千里，地方三万余里。其中分为五：南天竺，南际大海;北天竺，北距雪山，四周有山为壁，南面一谷，通为国门;东天竺，东际大海，与扶南连，但隔小海而已;西天竺，与罽宾波斯相接。中天竺，据四天竺之间。国并有王。俱以天竺为名。隋炀帝志通西域，诸国多至，惟天竺不通。武德中，国大乱，王尸罗逸多勒兵，象不解鞍，士不释甲，六载而四天竺之君，皆北面以臣之。
从这段话里，人们可以看到很多信息，首先是当时印度亦是四分五裂的状态，东、南、西、中皆臣服于北;其次是，北天竺的领地也没有越过喜马拉雅山脉，“葱岭(今帕米尔高原)之南”与“北距雪山，四周有山为壁，”已经是非常清晰的地理概念。而在历史上，与中国人发生关系或者有更多联系的只是北天竺。
王玄策那次出使的运气不是很好，他们到来的时候，王尸罗逸多死了，国中大乱。王尸罗逸多先前的大臣那伏帝阿罗那顺篡位，调动军队阻止王玄策一行，跟随王玄策的30骑兵与敌人交战，结果失败被擒获，敌人趁机劫掠四天竺国朝贡中国的财物。
王玄策非常生气，逃出来后，发檄文征召军队，得到1200吐蕃兵、7000尼婆罗(今尼泊尔)骑兵，把敌人打了个大败，让整个天竺感到震惊、害怕。这段历史被后世一些人说成一人灭一国，极力渲染。
贞观二十二年五月，王玄策把俘获的阿罗那顺及王妃、子等，俘虏的男女万二千人、牛马二万余送到长安献俘，但唐太宗并没有因此激动，只封王玄策为朝散大夫。朝散大夫从五品下，文官第十三阶，也就相当于我们今天一个处级干部略高一点的级别和待遇。
拿下印度，唐太宗为什么只给了王玄策这么小的一个官职作为奖励呢?主要有两个方面的原因：一是唐朝立过像王玄策这种功劳的人太多，唐太宗觉得是再正常不过的事情;第二点很多人都不愿意说，直白一点就是，在唐太宗的心里，印度那块地方好像没什么用处，原因是：没有印度，中国的丝绸之路照样畅通无阻——当时，中国与西方的文化和贸易交流，丝绸之路不再是汉代开辟时的形势和情形，已在无形中吸引和影响了北印度。同时，唐帝国的实力也是有限的，没必要为其四分五裂的状态付出太多的精力和努力。
唐太宗的这种心态或许可以算作当时中国人对古印度态度的一个缩影，事实也是，历史上与中国有太多交流的仅限于北印度，这个北印度不是今天作为国家意义上的印度北方，而是仅指喜马拉雅山脉以南的印度河流域和恒河流域。喜马拉雅山脉及其以北，包括今青藏高原、帕米尔高原在内的所有地方，都是中国文化圈的覆盖，除吐蕃的区域之外，强大的中原帝国早就将它们纳入了自己的势力范围之内。
还有一个人对古代印度的看法也很有意思，这个人是巴布尔，是帖木尔帝国帖木尔的六世孙，自称成吉汗后裔，莫卧儿帝国的创始人，一个被突厥化了的蒙古人。1525年11月，巴布尔率领一支12000人的军队，再次攻入印度西北部的旁遮普地区。此前，巴布尔曾多次发动征服印度战争，但都没有成功，只能退守喀布尔(今阿富汗首都)。大败道莱顿·汗·洛迪守军后，巴布尔于1526年初向德里进军，获得了辉煌的胜利，结束了德里苏丹国在印度320年的统治。
当年4月27日，巴布尔在大清真寺的礼拜仪式上，自行宣布为“印度斯坦皇帝”，以德里作为新首都，建立了莫卧儿帝国。但此时，巴布尔仍需要对付两个方面的敌人，即：占据恒河平原的阿富汗人和南方的拉杰普特人。拉杰普特人是中世纪初期印度中西部兴起的民族，有着塞种人、贵霜人、匈奴人、嚈哒人和古加拉等民族以及安息人和希腊人等等民族成分。拉杰普特人见巴布尔并没有放弃印度的意思，立即同阿富汗人结成联盟，于1527年3月，在阿格拉以西的坎努村与巴布尔进行决战。
这便是历史上有名的坎努战役，又译作坎奴战役、坎瓦会战。实际上是拉杰普特人的首领拉那·桑伽，与巴布尔对北印度霸权的一场争夺战。巴布尔发表了战前动员，他砸碎了金杯，对自己的部下说：“拥有荣誉，即使我死了，我也感到满足。我的身体既然属于死神，那么请让荣誉属于我。”当时，双方的实力是悬殊的，巴布尔只有两万军队，但对方却着的8万人的联军。但巴布尔凭借自己高超的指挥才能以及军队中的火器，最终让拉杰普特人的联军饮恨败北。其后，巴布尔用了两年时间，征服整个印度斯坦，建立了一个庞大的帝国。
然而，巴布尔并不喜欢印度，他曾在自己的回忆录中这样写到：“确实，很多来自中亚的士兵都不喜欢印度，这里没有美丽的花园，也没人修建水渠，居民的长相也不漂亮，并且有着许多我们难以接受的习俗，而且这里的气候也非常糟糕。”
巴布尔和自己部下不喜欢印度能到什么程度?他的手下有一个名叫和卓·卡兰的贵族，执意要回到阿富汗，离开的时候，卡兰和自己的士兵一起怒骂：“这里根本不是人待的地方，我们很快就可以回到迷人的家乡了!”还在房屋的墙上写下了两句诗：“如果我能安然无恙地渡过印度河，即使涂黑我的脸，我也不想再看到印度!”
中亚的游牧困局让巴布尔和部下不得已选择了进攻印度，印度肥沃的土地与丰富的物产，没有让他们感到依恋，面对难以适应的气候，让他们情愿选择离开，哪怕是回到中亚再过清贫的日子。这个原因与生活在青藏高原的藏族先民一直不愿意入侵印度是一致的，也是中国人对古代印度的一种看法。谁会想到呢，正是建立起的莫卧儿帝国，直到1858年才真正灭亡。是年，英国的维多利亚女王被授予印度女皇称号，成立英属印度，殖民者的统治与扩张让现代印度最终得以继承，成了一个近似于散装的国家。